InfluMatch: Frontier-Quality KOL Search at 4B-Model Cost
InfluMatch:用4B模型级联实现媲美前沿LLM的泰语KOL搜索
🧭 多阶段级联 · 偏好优化重排 · KOL匹配 ★ 深度解读
Amity AI Holdings Co., Ltd.
提出三阶段检索-重排-评分级联,用4B开源模型达到94.1% P@5,仅需前沿LLM 1/35的输出令牌
📌 工作参考价值(4 点)
- 级联设计降低推理成本:将昂贵的评分阶段仅作用于前10候选人类似于召回→粗排→精排,在商品推荐中可将LLM评估限制在小范围,大幅节省令牌与延迟。
- 用偏好优化(SimPO)训练点式重排器:仅利用人类成对偏好数据微调4B模型做单令牌“Yes”概率打分,比生成式A/B判断更经济且效果匹配前沿模型,适用于电商搜索的第二阶段精排。
- 绝对标签未必比相对判断更有效:基于绝对分数微调的评分器在离线指标上胜出但端到端下降,表明在电商场景中若标注存在主观性和噪声,更应收集成对优劣信号而非绝对评分。
- 合成数据生成管道可复现:通过 personas + 规则约束 + 网络搜索生成逼真的请求和标准,可为搜索/推荐系统的训练数据合成提供模板,降低真实业务数据不足的影响。